1
系列モデリング入門:データ、順序、 時間的ダイナミクス
PolyU COMP5511Lecture 9
00:00

人工知能の分野では、系列モデリングは静的スナップショットから 時間的ストリームへと焦点を移します。標準的な機械学習タスクでは、データポイントが 独立同一分布(IID)であると仮定されることが多く、サンプルの順序が結果に影響を与えないことを意味します。

系列モデリングはこれを明確に否定し、次の3つの柱に焦点を当てます:

  • の違反 順列不変性:表形式データでは列の順序は任意です。系列では、順序が主要な特徴です。「The cat ate the rat」を「The rat ate the cat」に置き換えると、 意味的な正解 が根本的に変わります。トークンは同じでもです。
  • 自己回帰 特性:時刻 $t$ の観測は、その履歴($t-1, t-2, \dots, 1$)に数学的に条件付けられると仮定します。これにより、情報がどのように進化するかを捉えるための遷移確率が必要になります。
  • 可変長マッピング:固定の28×28ピクセルグリッドとは異なり、文や地震波などの系列は 弾力的です。モデルは一貫したパラメータを使用して、長さ $N$ の入力と長さ $M$ の出力を処理する必要があります。
時間的文脈 $C_t$$X_1$$X_2$$X_3$$X_4$